En 1880, le graveur François Burillon est nommé conservateur de la collection des gravures du Musée Rath. Entre 1883 et 1886, la Ville acquiert environ 70'000 pièces, dont 50'000 font partie de la collection personnelle de François Burillon. Cette période marque ainsi l'origine du Cabinet des estampes. Depuis 1886, sur ordre des autorités municipales de l'époque, les oeuvres gravées des collections publiques genevoises (bois, burins, eaux-fortes et lithographies) sont rassemblées en un seul lieu de conservation, soit au Musée des arts décoratifs. En 1910, le Cabinet des estampes est rattaché au Musée d'art et d'histoire lors de la création de ce dernier. C'est finalement en 1952 qu'il s'installe en ses murs actuels, l'ancien hôtel Diodati-Plantamour, au n° 5 de la Promenade du Pin.
En plus d'un siècle, le Cabinet des estampes devient l'un des trois grands cabinets suisses, avec ceux de Bâle et de Berne. La collection s'enrichit au fil des ans par des acquisitions et de nombreuses donations particulières : Revillod, Bodmer, Scherer, Fatio, Engelberts et Archinard notamment. Certains artistes y déposent également leurs oeuvres, citons Bram van Velde, Antonio Saura, Georg Baselitz.
Les collections recouvrent un champ historique de cinq siècles, à l'intérieur duquel la gravure ancienne (Dürer, Canaletto, Piranesi, etc.) et l'estampe contemporaine (Vallotton, de Chirico, Fautrier, Michaux, etc.) occupent une place d'honneur. Actuellement, la politique du Cabinet des estampes est d'enrichir les fonds déjà conservés tout en évitant les doublets avec d'autres institutions suisses du même type.